在工作上運用GenAI已漸成日常，但AI會否為用戶思考能力帶來負面影響？微軟研究團隊日前發表了一項針對GenAI用戶的調查，為這問題提供了初步的實證研究。
微軟研究團隊調查319位知識型工作者，請他們分享在工作期間運用GenAI的例子，並請他們評估在過程中會否「批判地思考」GenAI的產出，再與不使用GenAI的情況進行比較。這些任務分為「創造」、「資訊」、「建議」3個大類別。團隊在用戶所分享的逾900個例子進行分析，發現一些較為顯著的傾向：
- 用戶注意力，會由收集、吸收資訊，轉移至驗證GenAI產出的資訊是否正確、合適。
- GenAI雖然節省了用戶某些時間，例如減少從不同來源收集資訊，但同時亦增加額外工序，例如查核、修改語調。
- 對GenAI信心較大的組群，較不傾向投入心力審視GenAI的產出。
- 不同工作類型與性質，用戶會驗證GenAI產出的比例會有頗大分別。
整體而言，參與調查中的用戶，不會對AI產出照單全收，研究者引用一些例子，例如以ChatGPT撰寫績效評估、或撰寫提交給上司的工作電郵，用戶均表示需仔細檢查AI產出，以避免工作上的負面後果。這相信亦與一般人使用GenAI的認知差距不大。研究者提到其中一個結論為，用戶在使用GenAI時，只在關鍵情況才運用批判性思維，這傾向或會令用戶減少練習的機會，長遠有可能判弱用戶某些認知能力。其實這種狀況並不陌生：例如依賴文法改正工具，在若干時間後書寫能力多少會變差。
研究團隊的結論顯示，GenAI不見得會直接使人變笨，用戶會依據情景需求深入思考與修正GenAI的生成結果，但它取代一些過往由人手執行的工作，長遠確是會讓人們減少做這些工作的能力，這趨勢長遠影響有需要持續追蹤。至於批判思維方面，團隊建議在設計GenAI工具時，透過用戶介面促進用戶思考，例如為AI生成結果提供推理過程解釋、鼓勵用戶投入以改進生成結果、列出生成結果的引用來源。
